Nhà thờ Giáo xứ Cao Bình cách trung tâm của thị xã Cao Bằng khoảng 10km, có một xứ đạo nhỏ bé với ngôi Thánh đường vươn lên giữa những đồi núi xanh ngát. Giáo xứ Cao Bình hiện diện trên 100 năm qua nơi miền đất này đã trở nên rất đỗi thân thuộc với những người dân nơi đây.

Vào khoảng những năm cuối của thế kỷ XIX, có hàng chục giáo dân từ các Giáo phận miền đồng bằng như Bùi Chu, Phát Diệm, vì nhiều lý do khác nhau, đã đến sinh sống và lập nghiệp tại miền đất Cao Bằng, vốn khi đó còn hết sức hoang sơ với núi rừng rậm rạp.

Vào năm 1910, Cha Bardol Cảnh đã thiết lập họ đạo mang tên Cao Bình, cách sông Bằng Giang khoảng 9 cây số. Đây là cơ sở bước đầu cho công cuộc truyền giáo nơi đây.

Vào năm 1915, sau khi Phủ Doãn Lạng Sơn – Cao Bằng đã được thiết lập, với quyền bề trên, Đức ông Cothonay đi kinh lý miền Cao Bằng. Vào dịp này, Đức ông lên thăm Cao Bình. Đây là cơ sở do cha Bardol đã thiết lập từ 5 năm trước. Tại Cao Bình giờ đây có một ngôi Nhà thờ làm bằng đất nện.

Mùa thu năm 1920, cha Brébion được cử lên coi xứ Cao Bình. Trong thời gian ít ỏi ở đây, ngài đã cho xây dựng xong Nhà thờ và nhà xứ thật khang trang vững chãi. Ngoài ra, ngài còn mua lại xung quanh Nhà thờ những thửa đất rộng lớn. Trải qua mấy chục năm, giữa những khó khăn của thời cuộc và bom đạn chiến tranh, ngôi Nhà thờ, nhà xứ này đã thực sự trở nên dấu chỉ của đức tin, sự an ủi và nâng đỡ cho cộng đoàn Dân Chúa nhỏ bé nơi đây. Năm 1921, cha Craven được bổ nhiệm lên coi sóc Giáo xứ Cao Bình.

Năm 1927, Đức ông Maillet bổ nhiệm Cha Moos từ chủng viện Mỹ Sơn lên cùng với Cha Larmurier ở tại giáo xứ Cao Bình. Các ngài đã củng cố tinh thần sống đạo của bà con giáo dân nơi đây, đồng thời đẩy mạnh công cuộc truyền giáo, hăng hái đi sâu vào các vùng người dân tộc thiểu số và rửa tội cho một số người gia nhập đạo.

Tháng 9 năm 1930, cùng với các điểm truyền giáo trong địa phận, Giáo xứ Cao Bình chào đón Đức cha Dreyer – Khâm sứ Toà Thánh- đến viếng thăm. Từ năm 1935, giáo xứ Cao Bình được đặt dưới quyền coi sóc của Cha Gagneux.

Địa phận Lạng Sơn – Cao Bằng gặp phải rất nhiều khó khăn và tổn thất trong thời kỳ chiến tranh. Cùng hoà mình vào những trang bi thương của lịch sử truyền giáo vùng sơn cước, Giáo xứ Cao Bình cũng phải gánh chịu những mất mát to lớn.

Tháng 9 năm 1947, một đợt giao tranh khốc liệt đã diễn ra nơi vùng Cao Bằng. Nhà thờ Cao Bình bị trúng bom. Toàn bộ phần Nhà thờ bị sụp đổ chỉ còn trơ lại phần móng. Các Cha và cộng đoàn giáo dân hết sức hoang mang lo sợ. May thay, cây tháp chuông và nhà xứ vẫn còn nguyên vẹn. Đó như dấu chỉ của Chúa để rồi một ngày mai xứ đạo này sẽ hồi sinh.

Đến năm 1998, khi làm Giám quản Tông Toà Giáo phận Lạng Sơn – Cao Bằng, Đức Hồng Y Phaolô Giuse Phạm Đình Tụng đã cho trùng tu toàn bộ Nhà thờ và nhà xứ nơi Giáo xứ Cao Bình. Cây tháp cũ được giữ nguyên, phần Nhà thờ được xây mới. Ngôi Nhà thờ khánh thành vào lễ Thánh Giuse Công Nhân năm 1999 trong niềm hân hoan của mọi thành phần Dân Chúa, cách riêng đoàn chiên nhỏ bé Cao Bình. Từ đây, mọi người có nơi xứng đáng để thờ phượng Thiên Chúa, để quy tụ và gặp gỡ nhau trong tình liên đới. Lúc này toàn giáo xứ ghi nhận có khoảng trên dưới 90 nhân danh.